일변수 함수의 미분
다음 절에서는 고등학교 수학 시간에 접했을 법한 일변수 함수의 미분 개념을 간략히 되짚어 본다. 우선 일변수 함수 $y = f(x), x, y \in \mathbb{R}$ 의 차분 몫(difference quotient)부터 살펴보자. 이를 이용해 미분(derivative)을 정의하게 될 것이다.
정의 5.1 (차분 몫). 차분 몫은 함수 $f$ 의 그래프 위에 있는 두 점을 지나는 할선(secant line)의 기울기를 계산하며, 다음과 같이 정의된다.
그림 5.3에서 이 두 점은 $x$ 좌표가 각각 $x_0$ 와 $x_0 + \delta x$ 인 점들에 해당한다.

$\to$ 그림 5.3은 $x_0$ 와 $x_0 + \delta x$ 사이의 함수 $f$ 의 평균 기울기가 $f(x_0)$ 와 $f(x_0 + \delta x)$ 를 지나는 할선(secant, 파란색)의 기울기이며, 이는 $\delta y / \delta x$ 로 주어진다는 것을 보여준다.
$\quad$ 차분 몫은 $f$ 가 선형 함수라고 가정했을 때, $x$ 와 $x + \delta x$ 사이에서 $f$ 의 평균 기울기(average slope)로 간주할 수도 있다. 만약 $f$ 가 미분 가능하다면, $\delta x \rightarrow 0$ 인 극한에서 우리는 $x$ 에서의 $f$ 의 접선(tangent)을 얻게 된다. 이 접선이 바로 $x$ 에서의 $f$ 의 미분이다.
정의 5.2 (미분). 더 엄밀하게 말해서, $h > 0$ 일 때 $x$ 에서의 $f$ 의 미분은 다음 극한으로 정의된다.
이때 그림 5.3의 할선은 접선이 된다.
$\quad$ $f$ 의 미분은 $f$ 의 가장 가파른 상승(steepest ascent) 방향을 가리킨다.
예제 5.2 (다항식의 미분)
우리는 $f(x) = x^n, n \in \mathbb{N}$ 의 미분을 계산하고자 한다. 이미 정답이 $nx^{n-1}$ 이라는 것을 알고 있을 수도 있지만, 여기서는 차분 몫의 극한이라는 미분의 정의를 사용하여 이 결과를 유도해 보고자 한다.
$\quad$ 미분의 정의 (5.4)를 사용하면 다음을 얻는다.
여기서 $x^n = \binom{n}{0}x^{n-0}h^0$ 임을 알 수 있다. 합(sum)을 1부터 시작하면 $x^n$ 항이 상쇄되어 다음을 얻는다.
$\to$ 예제 5.2에 표기된 기호 $\binom{n}{i}$ 는 이항 계수 또는 조합( ${}_nC_i$ )이라고 부른다.
$(x+h)^n$ 이라는 식은 괄호가 $n$ 개 곱해져 있다는 뜻이다.
간단한 예로 $(x+h)^3$ 의 경우 $(x+h)(x+h)(x+h)$ 로 풀어 쓸 수 있다. 이때 전개된 각 항과 계수를 직접 계산하여 구할 수도 있지만 다음과 같이 표현할 수도 있다.
각 항은 $3$ 개의 괄호 중에서 $h$ 를 $i$ 개 뽑는 경우의 수를 계수로 가지게 된다.
이를 일반화하면 다음과 같다:
5.1.1 테일러 급수
테일러 급수는 함수 $f$ 를 항들의 무한한 합으로 표현한 것이다. 이러한 항들은 $x_0$ 에서 평가된 $f$ 의 미분값들을 사용하여 결정된다.
정의 5.3 (테일러 다항식). $x_0$ 에서의 $f: \mathbb{R} \rightarrow \mathbb{R}$ 의 $n$ 차 테일러 다항식은 다음과 같이 정의된다.
여기서 $f^{(k)}(x_0)$ 는 $x_0$ 에서의 $f$ 의 $k$ 번째 미분(존재한다고 가정함)이고, $\frac{f^{(k)}(x_0)}{k!}$ 는 다항식의 계수들이다.
정의 5.4 (테일러 급수). 매끄러운 함수 $f \in C^\infty, f: \mathbb{R} \rightarrow \mathbb{R}$ 에 대하여, $x_0$ 에서의 $f$ 의 테일러 급수는 다음과 같이 정의된다.
$x_0 = 0$ 인 경우, 우리는 테일러 급수의 특수한 사례로서 매클로린 급수(Maclaurin series)를 얻는다. 만약 $f(x) = T_{\infty}(x)$ 라면, $f$ 는 해석적(analytic)이라고 불린다.
참고. 일반적으로, $n$ 차 테일러 다항식은 함수의 근사(approximation)이며, 함수 자체가 다항식일 필요는 없다. 테일러 다항식은 $x_0$ 주변의 이웃(neighborhood)에서 $f$ 와 유사하다. 하지만, 차수 $k \le n$ 인 다항식 $f$ 의 경우, $i > k$ 인 모든 미분값 $f^{(i)}$ 가 0이 되어 사라지므로(vanish), $n$ 차 테일러 다항식은 $f$ 의 정확한 표현이 된다.
$\to$ $n$ 차 테일러 다항식은 기준점( $x_0$ ) 근처에서 원 함수와 비슷하며 멀어질수록 오차가 커진다. 만약 원 함수가 유한 다항식인 경우, 테일러 다항식은 임의의 기준점에 대해 원 함수를 완벽하게 복원한다.
예제 5.3 (테일러 다항식)
우리는 다음 다항식을 고려한다.
그리고 $x_0 = 1$ 에서 평가된 테일러 다항식 $T_6$ 를 구하고자 한다. 우리는 $k = 0, \dots, 6$ 에 대한 계수 $f^{(k)}(1)$ 을 계산하는 것으로 시작한다.
따라서, 우리가 찾는 테일러 다항식은 다음과 같다.
이를 전개하고 재정렬하면 다음을 얻는다.
즉, 우리는 원래 함수의 정확한 표현(exact representation)을 얻게 된다.
예제 5.4 (테일러 급수)
그림 5.4에 주어진 다음 함수를 고려해 보자.

(그림 5.4: $x_0 = 0$ 주변에서 테일러 다항식(점선)이 원래 함수 $f(x) = \sin(x) + \cos (x)$ (검은 실선)를 근사한다. 고차원 테일러 다항식은 함수 $f$ 를 더 잘, 그리고 더 전역적으로(globally) 근사한다. $T_{10}$ 은 $[-4, 4]$ 구간에서 이미 $f$ 와 유사하다.).
우리는 $x_0 = 0$ 에서의 $f$ 의 테일러 급수 전개를 찾고자 하는데, 이는 $f$ 의 매클로린 급수 전개이다. 우리는 다음과 같은 미분값들을 얻는다.
여기서 우리는 패턴을 볼 수 있다: 테일러 급수의 계수들은 오직 $\pm 1$ 이며( $\sin(0)=0$ 이기 때문), 부호가 다른 것으로 바뀌기 전에 각각 두 번씩 등장한다. 게다가 $f^{(k+4)}(0) = f^{(k)}(0)$ 이다.
따라서, $x_0 = 0$ 에서 $f$ 의 전체 테일러 급수 전개는 다음과 같이 주어진다.
여기서 우리는 다음과 같은 멱급수(power series) 표현을 사용했다.
그림 5.4는 $n = 0, 1, 5, 10$ 에 대해 이에 대응하는 첫 테일러 다항식들 $T_n$ 을 보여준다.
참고. 테일러 급수는 멱급수( $x$ 의 거듭제곱( $x^k$ )들의 합으로 이루어진 무한 급수)의 특수한 경우이다.
여기서 $a_k$ 는 계수이고 $c$ 는 상수인데, 정의 5.4의 특수한 형태를 가진다.
5.1.2 미분 규칙
다음은 기본적인 미분 규칙들을 간략히 정리한 것으로, 여기서 $f$ 의 미분은 $f’$ 으로 표기한다.
곱의 미분 (Product rule):
몫의 미분 (Quotient rule):
합의 미분 (Sum rule):
연쇄 법칙 (Chain rule):
여기서 $g \circ f$ 는 $x \mapsto f(x) \mapsto g(f(x))$ 인 함수 합성을 나타낸다.
예제 5.5 (연쇄 법칙)
연쇄 법칙을 사용하여 함수 $h(x) = (2x+1)^4$ 의 미분을 계산해 보자. 다음과 같이 설정하면,
$f$ 와 $g$ 의 미분은 다음과 같이 얻어진다.
따라서 $h$ 의 미분은 다음과 같이 주어진다.
여기서 우리는 연쇄 법칙 (5.32)를 사용했고, $g’(f)$ 자리에 (5.34)의 $f$ 정의를 대입했다.